Khi tôi lần đầu tiên được giao nhiệm vụ tích hợp AI tạo ra vào nền tảng IVR của Viamo, phục vụ hàng triệu người trên khắp châu Phi và các thị trường mới nổi của châu Á, tôi không mất nhiều thời gian để nhận ra rằng chúng tôi không thể chỉ dính một giao diện trò chuyện vào nó và gọi nó một ngày, vì điều đó sẽ đơn giản hóa một số thách thức kỹ thuật và phát triển của chúng tôi. Dự án đó đã dạy tôi một bài học về thiết kế cho AI mà tôi nghĩ rằng tất cả các nhà thiết kế nên học: Thiết kế cho AI đại lý không phải là về việc làm cho nó thân thiện với trò chuyện, mà về việc thiết kế các hệ thống thông minh có thể hoạt động đáng tin cậy, minh bạch và có thể dự đoán được bên trong các hoạt động mà mọi người đã tin tưởng.Trong bảy năm thiết kế sản phẩm, trải qua các nền tảng fintech, hậu cần và phần mềm, tôi đã nhận ra rằng cách hiệu quả nhất để thực hiện AI không phải là về việc thay thế phán đoán của con người, mà về việc tăng cường nó theo những cách mà mọi người có thể, và cuối cùng, sẽ tin tưởng. Lỗi chết người của Chat-First Thinking Có một mô hình nguy hiểm đã được bắt nguồn từ ngành công nghiệp này vì sự ám ảnh của nó với giao diện trò chuyện trên các sản phẩm AI, và đó là mọi người đang cố gắng xây dựng một “ChatGPT cho Y”. không ai dừng lại và nói, “Vâng, thực tế, chỉ vì chúng ta có thể xây dựng điều này và trò chuyện là một phần của nó, mà thực sự không có gì để làm với việc có hay không tương tác trò chuyện thực sự là những gì chúng ta cần về điều này.” Đó không nhất thiết là sự thật. Chat là hoàn hảo cho việc khám phá mở và các nhiệm vụ sáng tạo liên quan đến các chuyến đi bao gồm các điểm đến. Nhưng hầu hết các nhiệm vụ kinh doanh đòi hỏi tính chính xác, có thể kiểm toán và có thể lặp lại. Khi thiết kế giao diện nhà cung cấp cho Waypoint Commodities, một hệ thống xử lý các giao dịch phân bón và hóa chất trị giá hàng triệu đô la, người dùng không yêu cầu giao diện trò chuyện thân thiện với người dùng có thể tạo điều kiện cho các cuộc trò chuyện khám phá về các giao dịch của họ. Họ yêu cầu giao diện cho phép các hệ thống AI chỉ ra lỗi, xác định các tuyến đường tối ưu và làm nổi bật các mối quan tâm về tuân thủ mà không che giấu các giao dịch quan trọng với bất kỳ sự không chắc chắn hoặc mơ hồ nào. Vấn đề chính với AI tập trung vào trò chuyện là nó cho phép ra quyết định dưới một mặt tiền của cuộc trò chuyện. Người dùng không thể dễ dàng kiểm tra thông tin nào đã được sử dụng, những gì đã được áp dụng và những gì đã được khám phá như một lựa chọn thay thế. Tất nhiên, điều này là chấp nhận được đối với các câu hỏi đặt cược thấp, nhưng thảm khốc đối với các lựa chọn hậu quả. Khi thiết kế hệ thống giám sát vận chuyển của chúng tôi theo dõi đơn đặt hàng tất cả thông qua việc thực hiện, dự án Waypoint của chúng tôi phải đối mặt với một thách thức đòi hỏi người dùng phải được đảm bảo thông điệp AI về sự chậm trễ tiềm năng hoặc biến động thị trường không dựa trên quan sát giả mạo nhưng trên các sự kiện thực tế được khám phá và xác minh bởi chính AI. Hệ thống đa đại lý đòi hỏi giao diện đa phương thức Nhưng sau đó, một sự thay đổi mô hình xảy ra trong suy nghĩ của tôi khi tôi ngừng thiết kế chỉ cho một mô hình AI và tập trung vào thiết kế cho các môi trường bao gồm nhiều thực thể AI chuyên dụng hoạt động cùng nhau như một hệ thống. Điều đó có nghĩa là chúng tôi phải từ bỏ hoàn toàn mô hình của một hệ thống trò chuyện một cửa sổ. Thay vào đó, chúng tôi đã xây dựng một giao diện nhiều cửa sổ thông qua đó nhiều phương pháp tương tác có thể được sử dụng cùng một lúc. Sự kiện nhanh chóng sẽ nhận được câu trả lời ngay lập tức thông qua đầu ra giọng nói AI. Giải quyết sự cố sẽ liên quan đến sự tương tác được hướng dẫn thông qua đó AI sẽ trả lời các câu hỏi sơ bộ trước khi chuyển hướng người dùng đến một hệ thống chuyên gia. Người dùng tìm kiếm thông tin về các cơ sở chính phủ sẽ nhận được các câu trả lời được định dạng sẽ trích dẫn các nguồn tương ứng. Tất cả các phương pháp tương tác này sẽ có các tín hiệu thị giác và âm thanh riêng biệt sẽ xây dựng sự mong đợi của người dùng tương ứng. Những kết quả này chứng minh chiến lược này là hợp lệ, và chúng tôi đã trải nghiệm độ chính xác phản hồi được cải thiện hơn ba mươi phần trăm và mức độ tham gia của người dùng tăng lên.Nhiều đáng kể hơn, mức độ bỏ cuộc của người dùng giảm hai mươi phần trăm khi người dùng ngừng nói chuyện do sự thất vọng của sự không phù hợp với kỳ vọng.Kể từ khi người dùng hiểu rằng họ sẽ nói chuyện với một hệ thống AI có một số kiến thức nhất định so với chờ đợi chuyên môn của con người, họ điều chỉnh mức độ hỏi và kiên nhẫn của họ tương ứng. Thiết kế để xác minh, không chỉ tự động hóa Một trong những nguyên tắc quan trọng nhất của thiết kế UX đại lý mà tôi ủng hộ là “tự động hóa mà không cần xác minh” chỉ đơn giản là “tài khoản kỹ thuật che giấu dưới dạng AI.”Có nên có một “lỗ hổng thoát” được cung cấp cùng với mỗi “các đại lý AI” được sử dụng trong một hệ thống, cho phép “người dùng xác nhận lý luận của nó” và “phản hồi quyết định của nó” khi cần thiết, “không phải vì người ta thiếu niềm tin” vào khả năng của AI, mà vì người ta “tôn trọng thực tế” rằng “người dùng có trách nhiệm cuối cùng” khi “trong môi trường được quy định hoặc các giao dịch có giá trị cao”. Khi tôi chịu trách nhiệm thiết kế bảng điều khiển quản trị để lên máy người dùng mới tại Waypoint, chúng tôi đã có một trường hợp điển hình của một dự án tự động hóa, loại mà sẽ cho phép AI xử lý các tài liệu tích hợp, trừu tượng thông tin thiết yếu, và tự động tích lũy hồ sơ người dùng, do đó giảm người dùng lên máy từ vài giờ xuống chỉ trong vài phút. Tất nhiên, chúng tôi hiểu rằng sự không chính xác có thể dẫn đến một công ty vào một trường hợp không tuân thủ hoặc tồi tệ hơn, tạo ra hồ sơ người dùng gian lận. Trong giao diện của chúng tôi, chúng tôi đã thực hiện hệ thống sau để chỉ ra mức độ tin cậy AI cho mỗi trường được trích xuất: Các trường có độ chính xác cao có màu văn bản đen và dấu chấm màu xanh lá cây; Độ chính xác trung bình có màu cam, và một biểu tượng trung lập được sử dụng; Các trường có độ chính xác thấp hoặc thiếu thông tin có màu đỏ và biểu tượng cảnh báo. Để xác định bất kỳ lỗi nào mà các hệ thống AI đã bỏ lỡ, ba mươi giây mỗi hồ sơ là đủ thời gian cho các quản trị viên, vì họ đã có đủ bối cảnh thông qua hệ thống này. Nhưng kết quả là rõ ràng: chúng tôi đã đạt được giảm thời gian khởi động bốn mươi phần trăm so với các phương pháp hoàn toàn thủ công và độ chính xác lớn hơn so với cách tiếp cận của con người hoặc AI một mình. nhưng quan trọng hơn, nhân viên quản trị tin tưởng hệ thống này bởi vì họ thực sự có thể làm theo logic của nó. Tiến bộ tiết lộ khả năng của các đại lý Một lĩnh vực tinh tế nhưng thiết yếu của UX đại lý mà hầu hết các nhà thiết kế đấu tranh với là cung cấp cho người dùng thông tin về những gì các đại lý của họ có thể và không thể đạt được mà không áp đảo họ với khả năng và ứng dụng tiềm năng của các khả năng này. Điều này đặc biệt đúng đối với các hệ thống áp dụng AI tạo ra, và khi chúng tôi đấu tranh trong công việc tại FlexiSAF Edusoft, nơi tôi phát triển các hệ thống này, họ có các ứng dụng có phạm vi rộng nhưng không thể đoán trước trên các nhiệm vụ hoặc hoạt động khác nhau. người dùng, trong trường hợp này sinh viên và cha mẹ, sẽ cần hướng dẫn thông qua các thủ tục nhập học thường phức tạp và, mặt khác, sẽ cần phải được thông báo về những phản ứng nào có thể được cung cấp bởi AI và những gì sẽ đòi hỏi sự tương tác của con người. Việc triển khai của chúng tôi cung cấp các gợi ý về khả năng dựa trên sự tương tác, có nghĩa là khi người dùng sử dụng hệ thống, họ sẽ được cung cấp các ví dụ về các câu hỏi mà AI mạnh mẽ trong việc trả lời so với các câu hỏi có thể được trả lời phù hợp hơn bởi các nhân viên nguồn nhân lực tại tổ chức, có nghĩa là khi người dùng gõ các câu hỏi về thời hạn nộp đơn, họ sẽ thấy các ví dụ về các câu hỏi mà AI mạnh mẽ trong việc trả lời, chẳng hạn như “Khi nào là thời hạn cho các ứng dụng kỹ thuật?” thay vì các câu hỏi mà họ có thể trả lời hiệu quả hơn, ví dụ, “Tôi có thể được miễn trả phí nộp đơn không?” Ngoài ra, chúng tôi đã cho phép một chu kỳ phản hồi thông qua đó người dùng có thể thể hiện xem câu hỏi của họ đã được trả lời đầy đủ bởi một phản ứng AI hay không. Điều này không chỉ để cải thiện mô hình, nhưng nó đã cho phép một tính năng UX thông qua đó người dùng có thể thể thể hiện rằng họ yêu cầu leo thang vấn đề của họ và rằng họ đã bị mắc kẹt bởi một hệ thống AI. tài nguyên có liên quan sẽ được cung cấp thông qua hệ thống này, và nếu không, họ sẽ được kết nối với nguồn nhân lực cũng như, do đó dẫn đến một vé hỗ trợ giảm nhưng không hy sinh sự hài lòng của người dùng, vì mọi người sẽ cảm thấy rằng họ đã được lắng nghe và rằng họ đã không bị mắc kẹt thông qua một hệ thống AI. Tính minh bạch và tính hữu ích của nó như một yếu tố xây dựng niềm tin Sự tin tưởng, tất nhiên, không được thiết lập bởi các thuật toán AI được cải thiện, mà bởi thiết kế hệ thống minh bạch cho phép người dùng xem những gì hệ thống biết, tại sao nó đưa ra kết luận của nó, và những hạn chế của nó ở đâu. eHealth Africa, dự án của chúng tôi liên quan đến hậu cần và lưu trữ dữ liệu của chuỗi cung ứng trong lĩnh vực y tế, đã làm cho điều này trở thành một trong những điều không thể đàm phán: “Nếu các đại lý máy tính AI dự đoán thời gian của các lô hàng vắc-xin hoặc chỉ ra các tuyến đường tối ưu để giao hàng, những lý do này phải có thể giải thích, bởi vì những người ra quyết định của con người sẽ quyết định liệu các phòng khám nông thôn có nhận được hàng cứu sinh kịp thời hay không.” Để giải quyết điều này, chúng tôi đã xây dựng những gì tôi gọi là "bảng lý luận" cung cấp kết quả cùng với các gợi ý AI. Các bảng lý luận này không hiển thị chi tiết mô hình về các tính toán của nó, chỉ hiển thị thông tin về lý do tại sao nó đạt được các khuyến nghị của nó, bao gồm điều kiện đường bộ, thời gian giao hàng trước đó cho tuyến đường này, thời tiết và khả năng vận chuyển có sẵn. các bảng lý luận cho phép các nhà khai thác thực địa nhanh chóng xác định xem họ đã nhận được lời khuyên lỗi thời từ AI hay nếu họ đã bỏ qua một thực tế thiết yếu, có sẵn gần đây hơn, chẳng hạn như đóng cửa cầu, và làm cho họ không cần thiết và minh bạch hơn là những người ra quyết định mờ, như trường hợp của hộp đen. Để đạt được mục đích này, chúng tôi đã xây dựng các trạng thái thất bại hữu ích mà sẽ mô tả lý do tại sao AI không thể cung cấp đề xuất của mình thay vì rơi vào một số thông điệp lỗi chung.Nếu, ví dụ, nó không thể cung cấp một tuyến đường tối ưu vì nó thiếu thông tin kết nối, điều này được thông báo rõ ràng và người dùng được thông báo về những gì họ có thể làm nếu họ vẫn không có đề xuất tuyến đường có sẵn. Thiết kế giao tiếp giữa các đại lý và con người Nhưng có lẽ một trong những chủ đề chưa được phát triển nhất của UX đại lý là việc chuyển giao, hoặc chính xác khi nào và chính xác làm thế nào một đại lý AI được cho là chuyển giao quyền kiểm soát một hệ thống hoặc tương tác cho một con người, cho dù con người đó là đồng nghiệp hoặc chính họ là người dùng của hệ thống đó hoặc tương tác.Đây chính xác là nơi mà phần lớn sự mất niềm tin xảy ra trong các hệ thống đa đại lý, và đây thực sự là một trong những dự án đầu tiên tôi tham gia giải quyết vấn đề này, đó là Bridge Call Block cho Viamo, đó là một hệ thống chuyển người dùng từ tương tác IVR sang dịch vụ khách hàng của con người. Giao thức chuyển giao ngữ cảnh của chúng tôi được thiết kế để sau mỗi tương tác của AI, một tóm tắt có cấu trúc được hiển thị trên màn hình của nhà khai thác trước khi họ có thể chào người dùng, và tóm tắt này chứa những gì được yêu cầu bởi người dùng, những gì AI có ý định nói, và tại sao AI leo thang cuộc gọi này. không cần phải yêu cầu người dùng lặp lại những gì họ đã yêu cầu, và tất cả bối cảnh tương tác có sẵn cho các nhà khai thác, và chi tiết nhỏ này của thiết kế tương tác đã cải thiện đáng kể thời gian xử lý trung bình và sự hài lòng của người dùng, vì mọi người cảm thấy họ đã được tôn trọng và thời gian của họ đã không bị lãng phí. Trong các trường hợp yêu cầu các nhà khai thác chuyển hướng người dùng của họ trở lại hệ thống tự động, chức năng giao diện người dùng đã được các nhà khai thác sử dụng hiệu quả để truyền đạt kỳ vọng đầy đủ về quyền tự trị AI dựa trên các nhiệm vụ nhất định sẽ cho phép người dùng được chuyển hướng trở lại hệ thống tự động, thay vì làm như vậy với sự thất vọng mong đợi. Các nguyên tắc thiết kế thực dụng của Agentic UX Là một học viên thiết kế các hệ thống hỗ trợ AI trong nhiều năm, hôm nay tôi đã xây dựng một số hướng dẫn thực dụng giúp tôi thiết kế UX đại lý hiệu quả: Đầu tiên, thiết kế cho dòng công việc, không phải cho công nghệ. Người dùng không quan tâm nếu họ được hỗ trợ thông qua AI, quy tắc hoặc trí thông minh của con người. Họ chỉ quan tâm nếu họ có thể hoàn thành nhiệm vụ của họ một cách hiệu quả và thuận tiện. Bắt đầu bằng kỹ thuật ngược từ kết quả mục tiêu, xác định các lĩnh vực có giá trị gia tăng và phức tạp do các tác nhân có khả năng AI, và sau đó dừng lại và tiến hành tương ứng. Người dùng cần phải nhận thức được khi nào họ rời khỏi một lĩnh vực trí tuệ và vào các lĩnh vực khác, chẳng hạn như trí tuệ tìm kiếm, trí tuệ mô hình và trí tuệ con người, và thiết lập các hướng dẫn tương ứng về hình ảnh và tương tác, để họ không tự hỏi họ sẽ nhận được loại câu trả lời nào và khi nào họ sẽ nhận được nó. Thứ ba, xây dựng xác minh vào thiết kế dòng công việc của bạn tôn trọng chuyên môn của người dùng. hệ thống AI lý tưởng nên giúp đẩy nhanh việc ra quyết định bằng cách đưa ra thông tin có liên quan và gợi ý các khóa học hành động, nhưng những điều này cuối cùng nên được thực hiện bởi người dùng con người có bối cảnh không thể truy cập được vào các hệ thống AI. Bởi vì các dự án đã thành công trong việc đảm bảo tài trợ, tăng cường sự tham gia bằng mức tăng nhất định và xử lý số lượng người dùng trong hàng ngàn, chúng tôi đã không thành công vì chúng tôi sở hữu hoặc cố gắng tạo ra các hệ thống AI tinh vi.Đó là bởi vì chúng tôi đã cung cấp cho những người dùng này, thông qua giao diện của chúng tôi, khả năng hiểu những gì đang xảy ra ở cuối của hệ thống AI này và, thông qua đó, giúp họ tin tưởng nó đủ để thực hiện các nhiệm vụ ngày càng phức tạp theo thời gian mà thực sự đã làm cho họ những ví dụ thành công của UX đại lý.
